你刷到过 OpenClaw、QClaw、KimiClaw、WorkBuddy——这些“AI 智能体”能自己规划任务、操作电脑、调用工具。但要把它们跑在本地，你需要一台能跑大模型、能 7×24 小时稳定运行的设备。
选什么设备最合适？几百块的树莓派行不行？迷你主机够不够？结合实测数据，给你一份本地 AI 智能体部署设备推荐清单。
你所有的 AI 智能体想象——自动整理文档、自动回复邮件、自动分析数据——全都建立在一个前提之上：你有一台能流畅运行 7B~13B 大模型的设备，而且它愿意一直开机、不吵、不费电。
这个前提如果不成立，你的 AI 智能体就只能在云上跑——数据出门、月费不断、断网就废。
本地 AI 智能体通常由三部分组成：
大语言模型（LLM）：负责理解任务、生成计划和回复
工具调用引擎：如 OpenClaw 的 MCP 协议，连接文件系统、浏览器、API
任务调度器：管理多步骤任务的执行顺序和状态
其中最吃资源的，永远是 LLM 推理。所以设备选型的核心，就是看能不能跑得动你要用的模型。
| 模型大小 | 内存需求（Q4 量化） | 推荐算力（TFLOPS/TOPS） | 推理速度要求 |
|---|---|---|---|
| 7B | ~4.5GB | 5+ | >10 tokens/秒 |
| 13B | ~7.5GB | 10+ | >8 tokens/秒 |
| 30B | ~16GB | 20+ | >5 tokens/秒 |
| 70B | ~36GB | 50+ | >5 tokens/秒 |
对于本地 AI 智能体，7B~13B 是最佳平衡点：能力足够处理大多数任务，硬件要求不高，功耗可控。
价格：~1500 元
算力来源：Intel UHD 核显（无独立 NPU）
实测 7B（Qwen2.5-7B Q4）：3~5 tokens/秒
优点：便宜、极低功耗（6W）、静音、可被动散热
缺点：速度较慢，对话有明显卡顿感
适合：尝鲜体验、非实时交互场景
价格：~2500 元
算力来源：Radeon 660M 核显（~5~6 TFLOPS FP16）
实测 7B（Qwen2.5-7B Q4）：8~12 tokens/秒
实测 13B（DeepSeek-V2-13B Q4）：5~8 tokens/秒
优点：速度可用（接近人类阅读速度），体积仅 0.66L，功耗 45~54W，办公/游戏/AI 三不误
缺点：无独立 NPU，13B 以上性能下降
适合：内部知识库、个人助理、智能体轻度任务
实测体验：在 PB1202 上运行 Ollama + Qwen2.5-7B，首 Token 延迟约 0.6 秒，连续对话流畅度可接受。同时运行 OpenClaw 工具调用，完成“整理桌面文件并生成目录”任务，总耗时 45 秒（模型推理占 38 秒），用户体验接近云端 API 的 80% 水平。
价格：~4000 元
算力来源：XDNA2 NPU 50 TOPS + 核显
实测 7B：25~35 tokens/秒（流畅）
实测 13B：15~22 tokens/秒（流畅）
优点：速度很快，功耗 28W，体积小，未来 2~3 年不落伍
缺点：价格偏高，需确认软件支持 NPU
适合：企业 AI 应用、开发者高频使用、多智能体并发
价格：~6000~8000 元（整机）
算力来源：RTX 4060（~200+ TFLOPS FP16 + Tensor Core）
实测 7B：40~60 tokens/秒
实测 13B：25~40 tokens/秒
优点：速度极快，可跑 30B 模型，支持训练微调
缺点：体积大、功耗高（150W+）、噪音较大
适合：AI 开发者、需要高频调用、多智能体协同
| 你的需求 | 推荐设备 | 预算 | 7B 速度 | 13B 速度 | 适用场景 |
|---|---|---|---|---|---|
| 尝鲜/学习，不介意慢 | N100 迷你主机 | 1500 元 | 3~5 | 勉强可跑 | 学习 AI 原理、简单测试 |
| 入门实用，兼顾办公/游戏 | 华一精品 PB1202 | 2500 元 | 8~12 | 5~8 | 内部知识库、个人助理、轻度智能体 |
| 专业开发/高频使用 | 锐龙 AI 迷你主机 | 4000 元 | 25~35 | 15~22 | 企业部署、多智能体、高频调用 |
| 高性能/可训练 | RTX 4060 迷你工作站 | 7000 元 | 40~60 | 25~40 | AI 开发、微调、大型智能体 |
操作系统：Windows 11 或 Ubuntu 22.04（推荐 Ubuntu，驱动更成熟）
推理框架：Ollama（AMD GPU 加速需开启 rocm 或 hip 后端）
模型选择：Qwen2.5-7B-Instruct Q4_K_M（中文能力强，企业级应用首选）
智能体框架：OpenClaw（支持 MCP 协议，可调用本地工具）
安装 Ollama（或 LM Studio，对 AMD 更友好）
下载模型：ollama pull qwen2.5:7b-instruct-q4_K_M
启动 API 服务：ollama serve
安装 OpenClaw，配置 API 地址指向 http://localhost:11434
配置工具（文件系统、浏览器、命令行等权限）
测试运行：“帮我整理 Downloads 文件夹，按文件类型分类到子目录”
关闭 Windows 的视觉效果，减少资源占用
设置虚拟内存为 8GB~16GB，防止内存溢出
如果使用 Linux，可禁用不必要的系统服务
建议使用 --num-gpu 999 参数强制 GPU 加速（适用于 LM Studio）
所有数据完全本地化，不经过任何云端服务器
可配置 OpenClaw 的权限白名单（限制可访问的目录、可执行的命令）
推荐在专用虚拟机或沙箱中运行智能体，防止误操作
需求：公司 30 人团队需要快速查阅内部文档（产品手册、技术方案、合同模板），希望有一个 AI 问答系统，数据不出本地。
设备选择过程：
云方案：租用 4 台 T4 GPU，月费 1.2 万元
本地方案：采购 3 台 PB1202（每台 2500 元），部署于公司内网
实测结果：
7B 模型 Q4 量化后，推理速度 10 tokens/秒，响应延迟 <1.5 秒，员工反馈“体验很好，比发邮件等回复快多了”
数据完全存储在内网服务器，外网无法访问，满足合规要求
总投入 7500 元，无后续费用，3 个月即回本（对比云方案）
后续扩展：计划在 PB1202 上运行 OpenClaw，实现“自动整理周报”“提取会议纪要关键信息”等任务。
A：不一定。如果只跑 7B 模型且对速度不敏感，核显小主机（如 PB1202）完全可行，速度 8~12 tokens/秒足够应对大多数内部工具调用场景。如果需要高频交互（>20 次/天），建议上 NPU 或独立显卡。
A：可以。OpenClaw 本身不依赖 GPU，它通过 API 调用本地大模型。PB1202 运行 Ollama 服务，OpenClaw 配置 API 地址即可。实测完成“整理桌面并生成报告”任务，总耗时约 40 秒，可接受。
A：可以，但需注意内存。PB1202（16GB）可跑 13B Q4 量化（约 7.5GB），速度 5~8 tokens/秒，适合非实时批量任务。如果需要流畅体验，建议选择 32GB 内存的 AI 迷你主机。
A：差别明显。13B 模型在复杂推理、多步骤任务规划、代码生成等场景明显更准确。如果智能体任务涉及多跳推理（比如“先查邮件，再整理附件，然后根据内容起草回复”），13B 更可靠。但如果只是简单问答或单一工具调用，7B 足够。
A：本地部署的优势是数据隐私、无持续费用、断网可用。缺点是模型能力（本地 13B 与云端 Claude 3.5 在极复杂任务上仍有差距）和速度（云端有大规模 GPU 集群）。但对企业内部日常任务，本地 7B~13B 已能满足 80% 需求。
A：PB1202 的内存是 LPDDR5 板载的，无法升级。如果预计将来要跑 30B 或更大模型，建议选购带 SO-DIMM 插槽的型号（可升级到 64GB），或者现在直接选择 32GB 配置的设备。PB1202 更适合当前明确跑 7B~13B 的用户。
本地 AI 智能体不是“未来”，它今天就能为你工作。 选对设备，你的数据不出门、算力不停歇、智能随时在线。
